AI 에이전트(AI Agents)가 챗봇 창을 넘어 실제 계정과 권한을 갖고 인터넷에서 행동할 수 있게 되면서, 스팸성 이메일·자동화 홍보·오작동하는 AI 고객지원 등 인터넷 경험을 극도로 악화시키고 있다. 저자는 AI의 실존적 위험 논쟁보다 'AI 에이전트가 인터넷을 짜증나게 만드는 것'은 100% 확실한 현실이며 앞으로 더 심해질 것이라고 지적한다.
미국 휴스턴에서 3명이 사망하고 약 200채의 주택이 파괴된 폭발 사고 소송에서, 3M이 고용한 전문가 증인이 ChatGPT로 보고서를 작성한 사실이 드러났습니다. 그는 ChatGPT에 '3M이 폭발에 0% 책임이 있음을 보여달라'고 지시했으며, 이 프롬프트들이 증거개시 절차에서 공개되었습니다. AI가 법정의 판결문·허위 사례 인용을 넘어 전문가 증언까지 침투했고, 프롬프트 자체가 증거로 제출될 수 있음을 보여주는 사례입니다.
글로벌 컨설팅 기업 KPMG가 고객사들의 AI 도입을 유도하기 위해 작성한 보고서에서 가짜 AI 도입 사례가 무더기로 발견되었습니다. 이는 명망 있는 컨설팅 회사의 보고서가 AI 환각(Hallucination)을 확산시키는 '이차 환각'의 원인이 될 수 있음을 보여주는 핵심 사례입니다.
최근 연구에 따르면, 사이버 범죄 포럼에서도 저품질 AI 생성 글(AI slop)이 범람하는 것에 대한 불만이 커지고 있습니다. 초보 해커들은 AI로 작성된 저품질 해킹 설명서나 글들이 커뮤니티의 신뢰도와 사회적 관계를 훼손한다며 강하게 비판하고 있습니다. 이는 보편적인 온라인 커뮤니티뿐만 아니라 지하 범죄 커뮤니티에서조차 AI 남용에 대한 거부감이 커지고 있음을 시사합니다.
최근 X(옛 트위터)에서 시간 여행을 하는 초지능 AI가 백악관 기자단 만찬 총격 사건을 사전에 경고하려 했다는 음모론이 크게 유행했습니다. 특정 트윗에 사용된 3D 추상 이미지가 트럼프 암살 시도 현장을 암시한다는 주장이었으나, 조사 결과 해당 이미지는 '타임 머신' 웹사이트 전용이 아니라 2021년부터 인터넷에 널리 쓰인 평범한 무료 스톡 이미지로 밝혀졌습니다. 이 사건은 AI와 관련된 억측이 어떻게 가짜 뉴스와 음모론으로 확산될 수 있는지 보여주는 좋은 사례입니다.